Su padre Edward Coles era carnicero y diácono en la Iglesia Bautista. Su familia se trasladó a Chicago cuando Nat era todavía un niño. Allí, su padre se convirtió en ministro de la iglesia y su madre, Perlina Adams, era la encargada de tocar el órgano de la iglesia. Fue la única maestra de piano que tuvo Nat en toda su vida. Aprendió tanto jazz como música gospel, sin olvidar la música clásica.

La familia vivía en el barrio de Bronzeville, famoso a finales de los años 20 por su vida nocturna y sus clubes de jazz. Nat visitó con frecuencia estos locales, escuchando a artistas como Louis Armstrong o Earl Hines.

Inspirado por Hines, Nat inició su carrera artística a mediados de la década de los 30 cuando aún era un adolescente. Adoptó el nombre de Nat Cole, abandonando la "s" de su apellido familiar. Su hermano mayor, Eddie, bajista, se unió a la banda de Nat cuando este realizó su primera grabación en 1936. Tuvieron un cierto éxito como banda local en Chicago y se convirtieron en habituales en los escenarios de los clubes. De hecho, el sobrenombre de "King" (rey) se lo dieron a Nat en uno de estos locales. Cole participó también como pianista en una gira junto a Eubie Blake. Cuando la gira llegó a Long Beach (California), Nat decidió establecerse allí.